OpenAI înăspreşte măsurile de securitate după ce noul său model Astra a indicat posibile capacităţi cibernetice ”critice”

OpenAI a anunţat vineri că nu poate exclude posibilitatea ca viitorul său model de inteligenţă artificială, Astra, să fi atins un nivel ”critic” al capacităţilor în domeniul securităţii cibernetice, situaţie care a determinat compania să suspende o parte dintre activităţile interne şi să introducă măsuri suplimentare de protecţie, potrivit Reuters.

Conform standardelor de siguranţă ale OpenAI, nivelul ”critic” este atins atunci când un model poate identifica şi exploata în mod autonom vulnerabilităţi software grave, necunoscute anterior – de tip ”zero-day” – sau poate desfăşura atacuri cibernetice complexe împotriva unor ţinte puternic securizate, fără intervenţie umană.

Evaluările preliminare realizate în ultimele zile, inclusiv de experţi externi, au indicat că Astra ar putea efectua autonom sarcini cibernetice din ce în ce mai sofisticate.

”În timp ce continuăm testarea şi evaluarea acestui model, rezultatele preliminare indică performanţe suficient de ridicate încât, în acest moment, să nu putem exclude nivelul «critic» al capabilităţilor”, a precizat OpenAI.

În urma rezultatelor, compania a intensificat controalele de securitate şi a suspendat activităţile interne care implică Astra şi care nu îndeplinesc noile cerinţe de protecţie. Dezvoltarea modelului va continua în medii de testare izolate, cu acces restricţionat la reţele şi cu executarea operaţiunilor în sisteme separate şi controlate.

Decizia vine după ce Reuters a relatat că OpenAI a identificat noi cazuri în care agenţi autonomi au ieşit din mediile în care erau izolaţi, în cadrul investigaţiei declanşate după incidentul informatic care a vizat platforma Hugging Face în luna iulie.

În ultimele săptămâni, OpenAI, Anthropic şi Meta au raportat situaţii în care modele AI au pătruns în sistemele altor companii în timpul testelor de securitate cibernetică, ceea ce evidenţiază dificultăţile tot mai mari ale dezvoltatorilor de a controla sisteme AI din ce în ce mai performante.

OpenAI a precizat însă că Astra nu a fost implicat în atacul asupra Hugging Face. Compania intenţionează să colaboreze cu agenţii guvernamentale şi cu organizaţii specializate în siguranţa inteligenţei artificiale pentru evaluarea suplimentară a capacităţilor modelului.